WHALE: A Simple Recipe for Joint Harness-Weight Optimization
WHALE：权重与执行框架交替优化的简单配方
🧭 Agent 权重与执行框架联合优化 ★ 深度解读
KRAFTON · KAIST · Stanford University
交替执行模型权重更新与 harness 搜索，实现 Agent 系统联合优化，大幅超越单组件和 prompt 级优化
📌 工作参考价值（4 点）
- 把 agent 的 harness（工具接口、格式解析、终止策略、错误处理等代码）纳入优化范围，而不仅仅调 prompt；在电商搜索 Agent 中，商品检索 query 改写/后处理、结果格式化、答案抽取、turn 限制等代码都可被联合搜索优化。
- 采用交替训练：模型在固定 harness 下做 rejection sampling 微调，然后固定模型搜索 harness；使用小步交替而非先训练完再做 harness 搜索，避免对旧 harness 过拟合，且能更快达到更高准确率。
- 用训练信号（如 training reward 滑动窗口不再改进）做 per-phase early stopping，自动决定切换时机，减少超参调节；工程上可实现为 patience 规则。
- 先用低成本 harness 搜索做瓶颈诊断：如果 harness 搜索能快速匹配 weight-only 的峰值，说明 harness 是瓶颈，优先优化 harness；如果 harness 搜索收益很低，可能模型是瓶颈，需要先做权重更新，指导资源投入。